对话面壁智能李大海：Scaling Law 之外，大模型的另一条关键路径
对话面壁智能李大海：Scaling Law 之外，大模型的另一条关键路径虽然 OpenAI 反复强调 Scaling Law 是大模型最重要的原则，但事实上，GPT-4 在过去一年里缩小了 10 倍。
来自主题: AI资讯
8691 点击 2024-06-26 13:00
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
虽然 OpenAI 反复强调 Scaling Law 是大模型最重要的原则，但事实上，GPT-4 在过去一年里缩小了 10 倍。
自 OpenAI 的 Q* 项目曝光后，引发业内众多讨论。据现有信息汇总，Q* 项目被视作 OpenAI 在探索人工通用智能（Artificial General Intelligence, AGI）道路上的一次重大尝试，有望在包括数学问题解决能力、自主学习和自我改进等多个层面对人工智能技术带来革新性突破。
今天， OpenAI劲敌Anthropic忽然丢炸弹，发布下一代旗舰大模型Claude 3.5 Sonnet。
就算是 OpenAI 在舆论场也无法逃过版权保护的呼声。
OpenAI CEO山姆·阿尔特曼去年年底被董事会突然解雇又光速复职的事情一直是硅谷的焦点。现在当时因参与做出解雇阿尔特曼决定而被解雇的前董事会成员海伦·托纳在新播客中又谈到了当时的一些内幕。
John Schulman 是 OpenAI 联合创始人、研究科学家（OpenAI 现存最主要具有技术背景的创始人），他领导了 ChatGPT 项目，在 OpenAI 内部长期负责模型 post-traning，在 Ilya 和 Jan Leike 离开 OpenAI 后，下一代模型安全性风险相关的研究也会由 John Schulman 来接替负责。
OpenAI 开始训练下一个前沿模型了。在联合创始人、首席科学家 Ilya Sutskever 官宣离职、超级对齐团队被解散之后，OpenAI 研究的安全性一直备受质疑。
彭博社报道，Apple 已与 OpenAI 达成协议，将由 OpenAI 为 iOS 18 提供 AI 聊天功能，此外，Apple 也在积极与 Google 进行协商，希望将 Gemini 作为另一项选择。Apple 与 OpenAI 的这一合作将在全球开发者大会（WWDC）上公布。
Jason Wei 是思维链提出者，并和 Yi Tay、Jeff Dean 等人合著了关于大模型涌现能力的论文。目前他正在 OpenAI 进行工作。
以 OpenAI 的 GPT 系列模型为代表的大语言模型（LLM）掀起了新一轮 AI 应用浪潮，但是 LLM 推理的高昂成本一直困扰着业务团队。